Series

LLM Agent 工程实践

共 4 讲,建议按顺序阅读。

  1. 01LLM Agent 的上下文管理实践:文件、图片与指令标记的协调在 LLM Agent 应用中,如何让模型理解用户上传的文件和图片,又不会导致 token 爆炸?本文从上下文管理视角,深入分析文件折叠重读、多模态分流以及工具与指令标记隔离的设计与实践。
  2. 02LLM Agent 的系统提示词工程:动态按需加载、自愈回执与反幻觉契约系统提示词越写越长、每次 debug 都加硬编码补丁、模型工具调用频频格式错误?本文从工程落地视角,深入分析 System Prompt 的分层渐进披露、工具 Schema 动态注入、结构化错误自愈回执以及泛化反幻觉契约的设计与实战。
  3. 03LLM Agent 长期记忆架构:从无脑抽取到原子操作与分层注入为什么大部分 LLM 记忆系统最终都会变成垃圾场?本文从真实生产工程痛点出发,深入解析为什么个人记忆不需要重量级 RAG,如何通过线索与静默双通道准入、ADD/UPDATE/DELETE 原子操作以及分层常驻与轻量检索,构建收敛、精准且低消耗的长期记忆系统。
  4. 04LLM Agent 文件编辑实战(上):基于 Function Calling 的就地修改、CAS 乐观锁与流式截断自愈让大模型像程序员一样精准就地修改文档并非易事。本文从生产级实践出发,复盘在标准 OpenAI Function Calling 架构下,如何设计多格式微编辑算子、实现多轮 CAS 乐观锁防覆盖、解决流式 JSON 参数截断,以及如何设计互斥安全降级 Schema。